The Common Voice corpus is a massively-multilingual collection of transcribed speech intended for speech technology research and development. Common Voice is designed for Automatic Speech Recognition purposes but can be useful in other domains (e.g. language identification). To achieve scale and sustainability, the Common Voice project employs crowdsourcing for both data collection and data validation. The most recent release includes 29 languages, and as of November 2019 there are a total of 38 languages collecting data. Over 50,000 individuals have participated so far, resulting in 2,500 hours of collected audio. To our knowledge this is the largest audio corpus in the public domain for speech recognition, both in terms of number of hours and number of languages. As an example use case for Common Voice, we present speech recognition experiments using Mozilla's DeepSpeech Speech-to-Text toolkit. By applying transfer learning from a source English model, we find an average Character Error Rate improvement of 5.99 ± 5.48 for twelve target languages (German, French, Italian, Turkish, Catalan, Slovenian, Welsh, Irish, Breton, Tatar, Chuvash, and Kabyle). For most of these languages, these are the first ever published results on end-to-end Automatic Speech Recognition.

We present Azimuth, an open-source and easy-to-use tool to perform error analysis for text classification. Compared to other stages of the ML development cycle, such as model training and hyper-parameter tuning, the process and tooling for the error analysis stage are less mature. However, this stage is critical for the development of reliable and trustworthy AI systems. To make error analysis more systematic, we propose an approach comprising dataset analysis and model quality assessment, which Azimuth facilitates. We aim to help AI practitioners discover and address areas where the model does not generalize by leveraging and integrating a range of ML techniques, such as saliency maps, similarity, uncertainty, and behavioral analyses, all in one tool. Our code and documentation are available at github.com/servicenow/azimuth.

强化学习（RL）是一种基于代理的方法，可以教机器人在物理世界中导航。已知收集RL的数据是一项费力的任务，现实世界实验可能会冒险。模拟器以更快，更具成本效益的方式促进培训数据的收集。但是，RL经常需要大量的仿真步骤才能使代理在简单任务上变得熟练。这是基于RL的视觉四面导航字段中普遍的问题，其中状态尺寸通常非常大，动态模型很复杂。此外，渲染图像和获得代理的物理特性在计算上可能很昂贵。为了解决这个问题，我们提出了一个基于Airsim的模拟框架，该框架提供了有效的并行训练。在此框架的基础上，APE-X经过修改，以结合空调环境的分散培训，以利用众多网络计算机。通过实验，我们能够使用上述框架将训练时间从3.9小时减少到11分钟，总共有74个代理和两台网络计算机。可以在https://sites.google.com/view/prl4airsim/home上找到有关我们项目Prl4airsim的更多详细信息和有关我们项目的视频。

Sleepiotm是一种数字手机和网络平台，使用认知行为疗法（CBT）的技术来改善睡眠困难患者的睡眠。作为此过程的一部分，Sleepio捕获了有关已处理此类数据的用户睡眠行为的数据。对于神经网络，数据的规模是训练可转换为实际临床实践的有意义模型的机会。与创建和利用Sleepio的Therapeutics公司Big Health合作，我们分析了401,174个睡眠日记的随机样本中的数据，并建立了一个神经网络，以个性化的方式对每个人的睡眠行为和睡眠质量进行建模。我们证明，该神经网络比过去10天的行为预测个人的睡眠质量比标准统计方法更准确。我们比较代表各种场景的各种超参数设置中的模型性能。我们进一步表明，神经网络可用于提出个性化建议，以了解用户应遵循的睡眠习惯以最大程度地提高睡眠质量，并证明这些建议比标准方法生成的建议要好得多。我们最终表明，神经网络可以解释给每个参与者的建议，并计算每个预测的置信区间，所有这些预测对于临床医生能够在临床实践中采用这种工具至关重要。

我们从一组稀疏的光谱时间序列中构建了一个物理参数化的概率自动编码器（PAE），以学习IA型超新星（SNE IA）的内在多样性。 PAE是一个两阶段的生成模型，由自动编码器（AE）组成，该模型在使用归一化流（NF）训练后概率地解释。我们证明，PAE学习了一个低维的潜在空间，该空间可捕获人口内存在的非线性特征范围，并且可以直接从数据直接从数据中准确地对整个波长和观察时间进行精确模拟SNE IA的光谱演化。通过引入相关性惩罚项和多阶段训练设置以及我们的物理参数化网络，我们表明可以在训练期间分离内在和外在的可变性模式，从而消除了需要进行额外标准化的其他模型。然后，我们在SNE IA的许多下游任务中使用PAE进行越来越精确的宇宙学分析，包括自动检测SN Outliers，与数据分布一致的样本的产生以及在存在噪音和不完整数据的情况下解决逆问题限制宇宙距离测量。我们发现，与以前的研究相一致的最佳固有模型参数数量似乎是三个，并表明我们可以用$ 0.091 \ pm 0.010 $ mag标准化SNE IA的测试样本，该样本对应于$ 0.074 \ pm。 0.010 $ mag如果删除了特殊的速度贡献。训练有素的模型和代码在\ href {https://github.com/georgestein/supaernova} {github.com/georgestein/supaernova}上发布

我们调整了大型语言模型，以使用行为克隆来编写自然语言批评（自然语言批判性评论）。关于基于主题的摘要任务，我们的模型所写的批评帮助人类在摘要中发现了本来会错过的漏洞。我们的模型有助于在模型和人类书面摘要中发现自然存在的缺陷，以及人类撰写的摘要中有意误导的摘要中的缺陷。我们研究批评的缩放特性，包括基于主题的汇总和合成任务。较大的模型写出更多有用的批评，在大多数任务上，尽管产生了更困难的输出，但在大多数任务上都更好地进行了自我关注。较大的模型还可以将自己的自我批评纳入反馈，将自己的摘要完善为更好的摘要。最后，我们激励并引入了一个框架，以比较批评能力的产生和歧视能力。我们的测量表明，即使是大型模型也可能仍然具有他们无法或不表达为批评的相关知识。这些结果是使用AI辅助的人类反馈来扩展机器学习系统的监督到人类直接评估的任务的概念证明。我们释放培训数据集以及批评援助实验的样本。

语言模型既展示了定量的改进，又展示了新的定性功能，随着规模的增加。尽管它们具有潜在的变革性影响，但这些新能力的特征却很差。为了为未来的研究提供信息，为破坏性的新模型能力做准备，并改善社会有害的效果，至关重要的是，我们必须了解目前和近乎未来的能力和语言模型的局限性。为了应对这一挑战，我们介绍了超越模仿游戏基准（Big Bench）。 Big Bench目前由204个任务组成，由132家机构的442位作者贡献。任务主题是多样的，从语言学，儿童发展，数学，常识性推理，生物学，物理学，社会偏见，软件开发等等。 Big-Bench专注于被认为超出当前语言模型的功能的任务。我们评估了OpenAI的GPT型号，Google内部密集变压器体系结构和大型基础上的开关稀疏变压器的行为，跨越了数百万到数十亿个参数。此外，一个人类专家评估者团队执行了所有任务，以提供强大的基准。研究结果包括：模型性能和校准都随规模改善，但绝对的术语（以及与评估者的性能相比）；在模型类中的性能非常相似，尽管带有稀疏性。逐渐和预测的任务通常涉及大量知识或记忆成分，而在临界规模上表现出“突破性”行为的任务通常涉及多个步骤或组成部分或脆性指标；社交偏见通常会随着含糊不清的环境而随着规模而增加，但这可以通过提示来改善。

近年来，由于它在机器人技术和自主驾驶中的应用，因此自我监督的单眼深度估计已成为一项激烈研究的主题。最近的许多工作都集中在通过提高体系结构复杂性来改善深度估计。本文表明，也可以通过改善学习过程而不是提高模型复杂性来实现最先进的绩效。更具体地说，我们建议（i）仅在训练期间对前几个时期使用不变姿势损失，（ii）训练时忽略小的潜在动态物体，（iii）采用基于外观的方法分别估算物体姿势，以实现真正动态的姿势对象。我们证明这些简化将GPU的内存使用量减少了29％，并导致定性和定量改进的深度图

国际危机如何展开？我们将国际关系概念化为对手之间的战略国际象棋游戏，并开发了一种系统的方法，以准确且一致的历史准确，一致地测量碎片，移动和gam。我们基于国际危机行为（ICB）项目的非常高质量的叙事语料库，介绍了一个名为ICBE的国际事件的新本体和数据集。我们证明，ICBE的覆盖范围，召回和精度比现有数据集的现有状态更高，并进行了两项关于古巴导弹危机（1962）和Crimea-Donbas危机（2014）的详细案例研究。我们进一步介绍了两个新的事件可视化（事件Icongraphy和危机地图），这是一种使用自然语言处理（Sythnetic叙述）测量事件召回的自动基准，以及用于客观测量事件精确度的本体论重建任务。我们在伴侣网站www.crisisevents.org和github存储库中提供数据，在线附录，复制材料以及可视化的可视化材料和可视化。

听诊器录制的胸部声音为新生儿的偏远有氧呼吸健康监测提供了机会。然而，可靠的监控需要高质量的心脏和肺部声音。本文介绍了新生胸部声音分离的新型非负基质分子（NMF）和非负矩阵协同分解（NMCF）方法。为了评估这些方法并与现有的单源分离方法进行比较，产生人工混合物数据集，包括心脏，肺和噪音。然后计算用于这些人造混合物的信噪比。这些方法也在现实世界嘈杂的新生儿胸部声音上进行测试，并根据生命符号估计误差评估，并在我们以前的作品中发达1-5的信号质量得分。此外，评估所有方法的计算成本，以确定实时处理的适用性。总的来说，所提出的NMF和NMCF方法都以2.7db到11.6db的下一个最佳现有方法而言，对于人工数据集，0.40至1.12的现实数据集的信号质量改进。发现10S记录的声音分离的中值处理时间为NMCF和NMF的342ms为28.3。由于稳定且稳健的性能，我们认为我们的提出方法可用于在真实的环境中弃绝新生儿心脏和肺部。提出和现有方法的代码可以在：https://github.com/egrooby-monash/heart-and-lung-sound-eparation。